Nagy nyelvi modellek akár 33 milliárd paraméterrel, lokálisan

Legalábbis ezt ígéri a MediaTek legújabb csúcskategóriás SoC-jük, a Dimensity 9300+ kapcsán.

Bemutatta a tajvani MediaTek a csúcskategóriás rendszerchipjük középciklusú frissítését, a MediaTek Dimensity 9300+ SoC-t. A friss lapka ugyanazt a CPU konfigurációt követi, mint elődje, viszont a TSMC 4 nanométeres N4P gyártási technológiájával készülő szett nem is erőre, hanem intelligenciára gyúrt. A MediaTek azt ígéri, a 9300+ integrált NPU-ja akár 33 milliárd paraméterig terjedő nagy nyelvi modellek (LLM) futtatására képes lokálisan 22 tokenes másodpercenkénti sebességgel. A frissített APU 790-zal 10%-os gyorsulás várható. A támogatott LLM-ek között szerepel a 01.AI Yi-Nano, Alibaba Cloud Qwen, Baichuan AI, ERNIE-3.5-SE, Google Gemini Nano, Meta Llama 2 és Llama 3. A Dimensity 9300+ ezeken felül támogatja a LoRA Fusion és NeuroPilot LoRA Fusion 2.0 helyi futtatását.


(forrás: MediaTek) [+]

A CPU nyolc maggal dolgozik, egy Cortex-X4 az erőmag 3,4 GHz-re skálázva, mellette van három Cortex-X4 2,85 GHz-en és négy Cortex-A720 2 GHZ-en az energiatakarékos feladatokért. 18 MB a gyorsítótár, a memóriavezérlő pedig LPDDR5x és LPDDR5T típusú csomagokat is kezel 9600 Mbps sebességig. Adott az UFS 4.0-s tárhelyekkel való kompatibilitás, és az MCQ (Multi-Circular Queue) technológia segítségével javul az olvasási és írási sebesség. A GPU maradt a 12 magos Arm Immortalis-G720 MP12, hardverszintű sugárkövetéssel és valószínűleg ugyanazokkal az órajelekkel, mint a sima 9300-ban. Kezeli a 4K felbontású kijelzőket 120 Hz-ig, vagy az 1440p-s paneleket 180 Hz-ig.

A képalkotásért az Imagiq 990 ISP felel, ami videózni 8K-ban 30 képkockás, 4K-ban 60 képkockás másodpercenkénti sebességgel tud, ami alulmarad a konkurenciával szemben. Kameraszenzorok felbontását 320 MP-ig kezeli az ISP.


[+]

Megvan a Wi-Fi 7, 5G (sub-6 GHz és mmWave egyaránt), Bluetooth 5.4 kapcsolat lehetősége, és a MediaTek Xtra Range technológiájával állítólag az 5 Ghz-es sávokat beltéren is nagyobb távolságból (akár plusz 4,5 méter) képes érzékelni. Navigálni GPS, GLONASS, Beidou, Galileo, QZSS és NavIC hálózatok segítségével tud.

Az első készülékek ezzel az SoC-val várhatóan kínai márkáktól érkeznek: a Vivo X100s, az iQOO Neo9s Pro, az iQOO Pad2 Pro és a Redmi K70 Ultra lehetnek az elsők, amik a 9300+ lapkát használják.

Előzmények

Hirdetés